Невидимые правители. Люди, которые превращают ложь в реальность - Renee DiResta

с влиянием, должны изучаться многими заинтересованными сторонами и что необходима прозрачность, когда аккаунты действительно закрываются.

Когда правительство США взаимодействует с компаниями, работающими в социальных сетях, то это вызывает серьезную озабоченность с точки зрения гражданских свобод: "jawboning" (государственное лицо, использующее неформальное давление, чтобы заставить бизнес вести себя определенным образом). 51 Иск "Миссури против Байдена" как раз об этом. И, как вы помните, в этом деле судья вынес предварительный запрет, запрещающий правительству общаться с технологическими платформами - и с моей командой. 52

Судебный запрет был приостановлен, а затем значительно смягчен крайне консервативным Пятым окружным апелляционным судом. Коллегия судей Пятого округа пришла к выводу, что некоторые члены администрации Байдена, вероятно, применяли недопустимое принуждение, но запрет судьи низшей инстанции был чрезмерно широким. Она отменила девять из десяти его положений, в том числе запрет в отношении Стэнфордской интернет-обсерватории, справедливо отметив, что постановление судьи повлияло на нашу свободу слова. 53 Дело рассматривалось в Верховном суде 18 марта 2024 года.54 Решение суда ожидается после публикации этой книги, однако большинство экспертов в области права согласились с тем, что слушания прошли не слишком удачно для предполагаемых жертв цензуры. Судьи, в том числе несколько консервативных ставленников, подвергли сомнению квалификацию взаимодействия правительства с Big Tech как "принуждения" и раскритиковали честность самих заявлений. "У меня такая проблема с вашей запиской, советник", - сказала судья Соня Сотомайор генеральному прокурору Луизианы, который вел дело. "Вы опускаете информацию, которая меняет контекст некоторых ваших утверждений; вы приписываете вещи людям, с которыми этого не происходило".

В этой ситуации верно сразу несколько вещей: первоначальное постановление было явно неверным, дело было основано на сфабрикованных цитатах и вводящих в заблуждение утверждениях, 55 подстрекательство - это плохо, и правительство имеет право и даже обязано иногда разговаривать с частными компаниями. На самом деле, даже первоначальный чрезмерно широкий запрет признавал множество видов вреда и проблем национальной безопасности, требующих сотрудничества правительства и платформы, в том числе "иностранные попытки повлиять на выборы", "преступные попытки подавить голосование", "осуществление допустимой публичной речи правительства, продвигающей политику или взгляды правительства по вопросам, представляющим общественный интерес", и "информирование компаний социальных сетей о публикациях, направленных на введение избирателей в заблуждение относительно требований и процедур голосования". 56

В нынешних рассуждениях о взаимодействии платформ с правительствами и научными кругами прослеживается непоследовательность. Если платформы, например, самостоятельно определяют политику в области общественного здравоохранения, их обвиняют в том, что они являются "арбитрами истины" или выходят за рамки своей компетенции. Если же они обращаются к правительственным чиновникам или академическим экспертам, их обвиняют в "сговоре" с целью заставить замолчать неправильные мнения. Либертарианский журнал Reason взял материалы, полученные в деле "Миссури против Байдена", и опубликовал их под названием "Досье Facebook", перефразировав обращение Meta к Центрам по контролю и профилактике заболеваний (CDC) с запросом о вирусных слухах в попытке курировать точный контент как нечто гнусное. 57 Но что должен был сделать Facebook? Неужели нам предстоит жить в мире, в котором эксперты и компании или компании и правительства не могут обсуждать критические вопросы?

Эти же люди были обижены, когда правительство обратилось к платформам. Итак, снова... что должно произойти?

Избежать фактического риска подстрекательства можно довольно просто: создайте регулирующие или саморегулируемые ограждения, которые обеспечат большую прозрачность подобных бирж. Если правительство требует удалить пост или аккаунт, или если платформа удаляет сеть аккаунтов по наводке правительства, это может быть помещено в публичную базу данных, что позволит наблюдательным органам изучить превышение полномочий. База данных Lumen позволяет собирать информацию об авторских правах и других внешних запросах к платформам на удаление контента, хотя участие в ней является добровольным. Например, Twitter прекратил подавать отчеты в Lumen после того, как репортеры обнаружили, что он удаляет фрагменты документального фильма по требованию индийского правительства. 58 Google, напротив, в настоящее время раскрывает информацию о запросах на удаление контента на своем сайте; все остальные компании социальных сетей должны последовать этому примеру.

Последняя роль правительства в обеспечении прозрачности заключается в расширении возможностей независимых исследователей. Кажется, что это нишевая и скучная тема. Это не так. Если мы хотим понять структуру нашей информационной системы, содержание, которое в ней циркулирует, и спикеров, которые ею управляют, то исследователям и журналистам, изучающим платформы социальных сетей, необходим доступ к данным. Подвергаются ли цензуре правые голоса? Создала ли компания социальных сетей X политику, которая несправедливо относится к какой-то категории высказываний? Давайте посмотрим.

В Соединенных Штатах платформы добровольно делятся данными с исследователями. Эти партнерства были крайне важны для понимания операций влияния, манипуляций, дезинформации на выборах и многого другого. Но после того как Элон Маск приобрел Twitter, компания закрыла консорциум по исследованию модерации Twitter. А в июне 2023 года она начала взимать 42 000 долларов в месяц за доступ к API исследователей, который раньше был бесплатным. Теперь в одном из самых мощных в мире инструментов формирования общественного мнения практически нет возможности наблюдать со стороны за самыми разными проблемами - от эксплуатации детей до операций по иностранному влиянию. В Соединенных Штатах существует закон, призванный исправить ситуацию, - Акт о подотчетности и прозрачности платформ, но он с трудом набирает обороты. Более многообещающим (и одновременно ярким свидетельством неудачного лидерства Соединенных Штатов) является Закон ЕС о цифровых услугах. Этот закон вступает в силу в 2023 году и обеспечивает доступ к данным для европейских исследователей.

Хотя прозрачность модерации и запросов правительства является важнейшей основой для усилий как регуляторов, так и саморегуляторов, решение проблемы контента на конечной стадии все еще остается в основном реактивным. Это как починить протекающий кран - необходимо, но это не улучшит всю водопроводную систему. А что если вместо этого обратить внимание на конструкцию системы? В отличие от пассивных слушателей радиостанции Кофлина, современные пользователи социальных сетей - активные участники; дизайн возможностей социальных сетей формирует их опыт. Когда речь идет об упреждающих мерах по перемещению по мельнице слухов и машине пропаганды, дизайн может оказать глубокое влияние.

Дизайн

В 1971 году Герберт Саймон, нобелевский лауреат и профессор информатики и организационной психологии, произнес ставшую знаменитой фразу: "Обилие информации порождает бедность внимания". Сегодня эта фраза вызывает такой же отклик у аудитории, как и в начале 1970-х годов. Люди, которых бомбардируют сообщениями, должны решить, как распределить свое внимание, потому что времени на все просто не хватает, и большинство из нас чувствуют себя перегруженными. Полная цитата, однако, раскрывает важную часть: "В мире, богатом информацией, богатство информации означает недостаток чего-то другого: нехватку того, что потребляет информация. Что потребляет информация, довольно очевидно: она потребляет внимание своих